Jughashvili lập một tiệm đóng giày trong Khu người Nga tại Gori, gần doanh trại đóng quân. Năm 1872 hoặc 1874, ông cưới cô thôn nữ Ekaterine (Keke) Geladze khi đó tầm 16 tuổi.[6][lower-alpha 3] Keke, "một cô gái da tàn nhang với mái tóc nâu vàng rất hấp dẫn," xuất thân từ ngôi làng Gambareuli gần Gori, di cư tới đây từ thuở ấu thơ sau khi thân phụ mất.[7] Họ có với nhau ba đứa con, đều là trai, song hai đứa đầu, Mikheil (sinh 14 tháng 2 năm 1875) và Giorgi (sinh 24 tháng 12 năm 1876), lần lượt chết yểu.[8] Con trai thứ ba và cuối cùng, Ioseb, chào đời ngày 6 tháng 12 năm 1878.[lower-alpha 4]

Suny viết rằng, sau cái chết của Mikheil, Jughashvili bắt đầu nghiện rượu nặng và tình trạng này càng trở nên trầm trọng hơn sau cái chết của Giorgi, đẩy hôn nhân vợ chồng đến bờ tan vỡ.[10] Kotkin cũng gợi ý rằng các lời đồn về sự bất thủy chung của Keke đã khiến ông rất đau lòng, đặc biệt là sau khi Ioseb chào đời. Tuy nhiên, Kotkin nhận định rằng "Keke có lẳng lơ hoặc huống hồ là chung chạ hay không thì không rõ," và rằng "ta thiếu thốn bằng chứng vững chãi về các mối quan hệ bất chính khả dĩ của người mẹ tương lai của Stalin," và cho rằng Jughashvili có lẽ là người bố thật.[11]

Tiệm của Jughashvili ban đầu khá thành công; ông thuê tới 10 thợ bạn và thợ học nghề lúc làm ăn khấm khá. Gia đình họ nhờ đó mà có mức sống khá giả; một người thợ học nghề về sau kể lại rằng anh ta thường xuyên trông thấy bơ trong nhà họ, một cao lương mỹ vị mà không phải người Gruzia nào lúc bấy giờ cũng được thưởng thức (song Kotkin lại viết rằng gia đình họ sống đơn sơ hơn, dùng bữa với các món Gruzia truyền thống như lobio, lavash, và badrijani nigvzit).[12] Tuy nhiên, tình trạng nghiện rượu của Jughashvili, trầm trọng thêm bởi tục trả rượu thay tiền của dân buôn Gruzia, đã gây phương hại đến đời sống gia đình và sự nghiệp của ông.[13] Isaac Deutscher cho rằng Jughashvili cảm thấy tự ti khi không "làm chủ được chính mình" như kỳ vọng và điều này có lẽ đã khiến ông tìm tới rượu để giải sầu.[14] Robert Service cũng phảng phất ý tưởng tương tự, cho rằng do không thích ứng được với thị trường giày châu Âu thời thượng lúc bấy giờ và tiếp tục đóng giày Gruzia truyền thống, cộng thêm đồn đại về quan hệ bất chính của vợ, đã khiến Jughashvili cảm thấy bất lực.[15] Thường những lúc say xỉn, Jughashvili trở nên bạo lực, rồi đánh Keke (người cũng hay đánh trả) và Ioseb. Hai vợ chồng có lúc mâu thuẫn nơi chốn công cộng và Jughashvili bị miệng tiếng đặt biệt danh là "Beso Điên."[16] Sự nghiệp làm ăn của Jughashvili do vậy bị ảnh hưởng nặng nề và ông rốt cuộc sạt nghiệp. Gia đình họ mất nhà và phải tá túc chỗ người quen, di chuyển liên tiếp tới chín địa chỉ khác nhau trong vài năm tới.[17]